MUSA SDK v4.3.4 发布版本信息

下载链接

发布说明

MUSA SDK v4.3.4 作为辞旧迎新的版本，汇集了各团队的辛勤贡献。本版本在 4.3.3 的基础上进一步增强了对大模型训练与推理的支持（特别是 235B 模型与 DeepSeek 系列），新增了多个国产操作系统与服务器环境的适配，并修复了大量稳定性问题。祝各位新年快乐！

具体支持平台以及对应项目详情请参阅测试报告。

测试平台

CPU	OS	内核版本	测试环境	mtbios	项目
Intel(R) Xeon(R) Gold 6430	Alibaba Cloud Linux 3	5.10.134-13.al8.x86_64	Intel+Alinux host+Ubuntu Docker+S5000	4.3.27	ZJ KUAE
INTEL(R) XEON(R) GOLD 6530	openEuler 22.03 (LTS-SP4)	5.10.0-216.0.0.115.oe2203sp4.x86_64	intel+openEuler +Ubuntu Docker+S5000	4.3.36	美团
Intel(R) Xeon(R) Gold 6430	Debian GNU/Linux 12	5.15.120.ve.3u1-amd64	Intel+Debian+S5000	4.3.36	字节
Hygon C86-4G	Ubuntu 22.04.4 LTS	5.15.0-105-generic	Hygon4+Ubuntu24.04+S5000	4.3.27	昌平实验室
AMD EPYC 9T34 64-Core	Ubuntu 22.04.4 LTS	5.15.0-105-generic	AMD+ubuntu22.04+S5000	4.3.27	发改委
Hygon C86-4G	Kylin Linux Advanced Server V10 (GFB)	4.19.90-52.23.v2207.gfb08.ky10.x86_64	Hygon4+Kylin(试用版)+S5000	4.3.29	智能院
Intel(R) Xeon(R) Gold 6430	TencentOS Server 4.4	6.6.92-34.1.tl4.x86_64	Intel+TencentOS+S5000	4.3.28	腾讯
Hygon C86-4G (OPN:7490)	Kylin Linux Advanced Server V11 (Swan25)	6.6.0-32.7.v2505.ky11.x86_64	Hygon4+Kylin V11+S5000	4.3.29	招商银行

本版本在原有支持基础上，新增或优化了以下环境的适配（详细内核版本见测试报告）：

Hygon4 + Kylin V11 + S5000 (针对招商银行项目适配)
Hygon4 + Kylin V10 SP3 + S5000 (针对中电科&宁波银行项目适配)
Intel + Tencent Server + S5000 (针对腾讯项目适配)
昌平实验室 Slurm 调度系统适配

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境，专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK，您能够轻松地利用 GPU 加速各种应用，涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括了 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具，MUSA SDK 包含了以下主要组件：

MUSA Toolkits，包含底层编译器、MUSA 运行时库、Musify 工具以及MUSA-X 基础数学计算加速库
muDNN，MT GPU 深度学习加速库
MCCL，MT GPU 通信加速库
MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序
MT GPU：MTT S5000, MTT S4000，MTT S3000，MTT S80, MTT X300 等
通用驱动软件

功能描述

支持 SIMT 架构并行编程模型
提供 mcc 编译器工具链
MUSA 驱动与运行时库
摩尔线程 MUSA 数学库 (muBLAS, muFFT, muPP, muRAND)
MCCL 通信库 (支持多 GPU 和多节点通信，优化 PCIe 和 MTLink 互联)
muDNN 深度学习加速库

主要更新

功能更新（Feature Updates）

VPU 支持
- 正式支持 VPU 功能
- 注意：需要升级 mtbios 版本至 4.3.30 及以上
大模型与算子优化
- 235B 模型支持：
  - 支持 Attention splitkv + 负载均衡 (Load Balance)
  - 支持 Attention varlen_q + pack GQA
- Flash Attention 增强：
  - varlen 接口支持 qk dim 不等于 v dim 的场景
  - 支持 qk-head_dim=512, v_head_dim=512 配置（针对腾讯送测需求）
- HunyuanVideo 优化：针对快手项目优化 FP8 GEMM 算子效率
- SGLang 优化：定位并优化了 D2H (Device to Host) 阶段的空泡问题 (S5000)
- Graph Capture：新增 muStreamBeginCaptureToGraph 开发需求支持
GPU 压测与调试工具
- muDNN benchmark：支持通过 muDNNbenchmark 进行 GPU 压测，新增环境变量配置超时时间：
```
export MUSA_EXECUTION_TIMEOUT=<按需定义，单位 ms>
```
- 运维支持：支持一键日志收集功能 (S5000)
- MuPTI 增强：支持 Context 粒度的性能监测 (pfm)
- muDump 增强：支持打印 musaLaunchKernelEx 的入参
- MCCL 测试：MCCL ACE pert test 设为默认发布（字节送测需求）
驱动与系统适配
- 显存类型读取变更：S5000 驱动中移除了 mthreads-gmi 读取显存类型的功能
- 多客户环境适配：完成了针对招商银行、宁波银行、中电科及腾讯服务器的特定 OS/硬件适配

问题修复（Bug Fixes）

训练与稳定性修复
- MoE 模型：
  - 修复 MoE 16b 单机训练在约 20 iteration 时大部分机器出现 NaN 的问题
  - 修复 DeepSeek MoE 32B FP8 八机长稳测试中出现的多种错误（unknown error, KeyError: 'mubin', TypeError 等）
  - 修复 MoE 16b 单机模型测试报 musaEventQuery ret=600 导致 hang 死的问题
- DeepEP/SGLang：
  - 修复 DeepEP 在双流同时存在通信算子时 hang 住的问题
  - 修复 DeepEP 16卡/512专家场景下的 timeout 及 low latency 模式部署失败问题
  - 修复 SGLang Decode 节点开启动态 EPLB 后 MCCL 报错的问题
  - 修复 SGLang Prefill 节点出现 DeepEP Hang Timeout 及 MCCL 报错
  - 修复 SGLang 结合 DeepEP 输入 shape 为 [0, 7168] 时的报错
- MCCL 通信：
  - 修复 Intel 风冷机器双机 mccl test 测试 hang 住的问题
  - 修复 4.3.3 版本使用 MCCL over CE 的 all_reduce 报 segmentation error
  - 修复 MCCL over CE mcclCommWindowRegister 解绑时触发 unhandled musa error
精度与算子修复
- FA 算子：修复 Flash Attention 算子和非融合 Attention 的精度对齐问题
- muSOLVER：修复 sgetrf_getrs_test 偶现计算精度不达标的问题
- Triton Kernel：修复 Rope Triton Kernel 相关优化问题（快手项目）
工具与底层修复
- GMI 工具：
  - 修复 mthreads-gmi -r 2 -i 0 导致机器 hang 死的问题
  - 修复特定 OS (Kylin V11/TLinux) 安装 DDK 后 GMI 报错 core dump
  - 修复 GMI 查询 ECC 状态显示错误（应显示 EDC 或显示为 NA 的问题）
- 系统/硬件错误：
  - 修复 TME intranode 压测发生 AXI error 导致掉卡的问题
  - 修复浙江内网八机稳定性测试中出现的 Hardware error from APEI
  - 修复 DCGM 在 P12 状态下查询 mtlink BER 值为 NAN 的问题（需在 P0 状态启动）
- 其他：
  - 修复 musa_cts 测试过程中 OS hang 死及偶现 AOStoSOA 数据校验失败

兼容环境

详细兼容列表及内核版本请参阅《MUSA Release 4.3.4 Test Report》。

产品组件说明

包名称	版本
mccl_rc2.1.4.PH1.tar.gz	2.1.4
mudnn_rc3.1.4.PH1.tar.gz	3.1.4
musa_3.3.4-server_amd64.deb	3.3.4
musa_toolkits_rc4.3.4.tar.gz	4.3.4
triton310_rc1.4.4_py310.tar.gz	1.4.4

下载链接​

发布说明​

测试平台​

产品说明​

功能描述​

主要更新​

功能更新（Feature Updates）​

问题修复（Bug Fixes）​

兼容环境​

产品组件说明​

这篇文章对您有帮助吗？